内积

#Mathematics #FunctionalAnalysis #InnerProduct #HilbertSpace

Inner Product 内积空间

内积空间，Inner Product Space 内积空间是泛函分析中的核心概念，它是在向量空间基础上引入了内积结构的赋范线性空间。内积空间允许我们度量向量之间的"角度"和"正交性"，是有限维欧几里得空间在无穷维空间中的自然推广。

一、内积的定义与公理

1.1 基本定义

设 $X$ 是域 $F$ （ $R$ 或 $C$ ）上的向量空间。若存在映射 $⟨ \cdot, \cdot ⟩ : X \times X \to F$ 满足以下公理，则称 $(X, ⟨ \cdot, \cdot ⟩)$ 为内积空间：

实内积公理（ $F = R$ ）：

正定性： $⟨ x, x ⟩ \geq 0$ ，且 $⟨ x, x ⟩ = 0 ⟺ x = 0$
对称性： $⟨ x, y ⟩ = ⟨ y, x ⟩$
线性性： $⟨ α x + β y, z ⟩ = α ⟨ x, z ⟩ + β ⟨ y, z ⟩$

复内积公理（ $F = C$ ）：

正定性： $⟨ x, x ⟩ \geq 0$ ，且 $⟨ x, x ⟩ = 0 ⟺ x = 0$
共轭对称性（Hermite对称）： $⟨ x, y ⟩ = \overset{―}{⟨ y, x ⟩}$
第一变元线性： $⟨ α x + β y, z ⟩ = α ⟨ x, z ⟩ + β ⟨ y, z ⟩$
第二变元共轭线性： $⟨ z, α x + β y ⟩ = \overset{―}{α} ⟨ z, x ⟩ + \overset{―}{β} ⟨ z, y ⟩$

注：在复内积空间中， $⟨ x, α y ⟩ = \overset{―}{α} ⟨ x, y ⟩$ ，这称为半双线性（sesquilinear）形式。

1.2 内积导出的范数

内积自然诱导出一个范数：

∥ x ∥ = \sqrt{⟨ x, x ⟩}

验证范数公理：

非负性： $∥ x ∥ \geq 0$ ，且 $∥ x ∥ = 0 ⟺ x = 0$ ✓
齐次性： $∥ α x ∥ = \sqrt{⟨ α x, α x ⟩} = \sqrt{| α |^{2} ⟨ x, x ⟩} = | α | ∥ x ∥$ ✓
三角不等式：需要Cauchy-Schwarz不等式证明 ✓

因此，每个内积空间都是赋范线性空间。

二、Cauchy-Schwarz不等式

2.1 定理陈述

Cauchy-Schwarz不等式是内积空间理论中最基本的不等式：

| ⟨ x, y ⟩ | \leq ∥ x ∥ \cdot ∥ y ∥ = \sqrt{⟨ x, x ⟩ ⟨ y, y ⟩}

等号成立当且仅当 $x$ 和 $y$ 线性相关。

2.2 证明思路

证明：考虑非负实数 $⟨ x - λ y, x - λ y ⟩ \geq 0$ ，其中 $λ = \frac{⟨ x, y ⟩}{⟨ y, y ⟩}$ （设 $y \neq 0$ ）

\begin{aligned} ⟨ x - λ y, x - λ y ⟩ & = ⟨ x, x ⟩ - λ ⟨ y, x ⟩ - \overset{―}{λ} ⟨ x, y ⟩ + | λ |^{2} ⟨ y, y ⟩ \\ = ∥ x ∥^{2} - \frac{| ⟨ x, y ⟩ |^{2}}{∥ y ∥^{2}} - \frac{| ⟨ x, y ⟩ |^{2}}{∥ y ∥^{2}} + \frac{| ⟨ x, y ⟩ |^{2}}{∥ y ∥^{2}} \\ = ∥ x ∥^{2} - \frac{| ⟨ x, y ⟩ |^{2}}{∥ y ∥^{2}} \geq 0 \end{aligned}

因此：

| ⟨ x, y ⟩ |^{2} \leq ∥ x ∥^{2} ∥ y ∥^{2} ⟹ | ⟨ x, y ⟩ | \leq ∥ x ∥ ∥ y ∥

等号条件： $⟨ x - λ y, x - λ y ⟩ = 0 ⟺ x - λ y = 0 ⟺ x = λ y$ ∎

2.3 三角不等式的证明

利用Cauchy-Schwarz不等式，可以证明内积导出的范数满足三角不等式：

\begin{aligned} ∥ x + y ∥^{2} & = ⟨ x + y, x + y ⟩ \\ = ⟨ x, x ⟩ + ⟨ x, y ⟩ + ⟨ y, x ⟩ + ⟨ y, y ⟩ \\ = ∥ x ∥^{2} + 2 Re ⟨ x, y ⟩ + ∥ y ∥^{2} \\ \leq ∥ x ∥^{2} + 2 | ⟨ x, y ⟩ | + ∥ y ∥^{2} \\ \leq ∥ x ∥^{2} + 2 ∥ x ∥ ∥ y ∥ + ∥ y ∥^{2} (Cauchy-Schwarz) \\ = (∥ x ∥ + ∥ y ∥)^{2} \end{aligned}

因此 $∥ x + y ∥ \leq ∥ x ∥ + ∥ y ∥$ 。∎

三、极化恒等式

极化恒等式表明内积可以完全由范数恢复，这是内积空间的特征性质。

3.1 实内积空间的极化恒等式

⟨ x, y ⟩ = \frac{1}{4} (∥ x + y ∥^{2} - ∥ x - y ∥^{2})

证明：

\begin{aligned} ∥ x + y ∥^{2} & = ⟨ x + y, x + y ⟩ = ∥ x ∥^{2} + 2 ⟨ x, y ⟩ + ∥ y ∥^{2} \\ ∥ x - y ∥^{2} & = ⟨ x - y, x - y ⟩ = ∥ x ∥^{2} - 2 ⟨ x, y ⟩ + ∥ y ∥^{2} \end{aligned}

相减得：

∥ x + y ∥^{2} - ∥ x - y ∥^{2} = 4 ⟨ x, y ⟩ ⟹ ⟨ x, y ⟩ = \frac{1}{4} (∥ x + y ∥^{2} - ∥ x - y ∥^{2})

3.2 复内积空间的极化恒等式

⟨ x, y ⟩ = \frac{1}{4} (∥ x + y ∥^{2} - ∥ x - y ∥^{2} + i ∥ x + i y ∥^{2} - i ∥ x - i y ∥^{2})

证明：类似地计算四个范数的组合。∎

3.3 应用：平行四边形法则

平行四边形法则是内积空间的刻画定理：

定理：赋范线性空间 $(X, ∥ \cdot ∥)$ 可以由内积导出的充要条件是范数满足平行四边形法则：

∥ x + y ∥^{2} + ∥ x - y ∥^{2} = 2 (∥ x ∥^{2} + ∥ y ∥^{2}), \forall x, y \in X

几何意义：平行四边形两条对角线的长度平方和等于四条边长平方和的一半。

四、经典内积空间例子

4.1 欧几里得空间 $R^{n}$

标准内积：

⟨ x, y ⟩ = \sum_{i = 1}^{n} x_{i} y_{i} = x^{T} y

导出范数： $∥ x ∥ = \sqrt{\sum_{i = 1}^{n} x_{i}^{2}}$ （欧几里得范数）

4.2 酉空间 $C^{n}$

标准内积（Hermite内积）：

⟨ x, y ⟩ = \sum_{i = 1}^{n} x_{i} \overset{―}{y_{i}} = y^{*} x

其中 $y^{*}$ 表示 $y$ 的共轭转置。

导出范数： $∥ x ∥ = \sqrt{\sum_{i = 1}^{n} | x_{i} |^{2}}$

4.3 空间 $ℓ^{2}$ （平方可和序列空间）

ℓ^{2} = {x = (x_{1}, x_{2}, \dots) : \sum_{i = 1}^{\infty} | x_{i} |^{2} < \infty}

内积：

⟨ x, y ⟩ = \sum_{i = 1}^{\infty} x_{i} \overset{―}{y_{i}}

验证：由Cauchy-Schwarz不等式，级数绝对收敛：

\sum_{i = 1}^{\infty} | x_{i} \overset{―}{y_{i}} | \leq \sqrt{\sum_{i = 1}^{\infty} | x_{i} |^{2}} \sqrt{\sum_{i = 1}^{\infty} | y_{i} |^{2}} < \infty

4.4 空间 $L^{2} ([a, b])$ （平方可积函数空间）

L^{2} ([a, b]) = {f : [a, b] \to C : \int_{a}^{b} | f (x) |^{2} d x < \infty}

内积：

⟨ f, g ⟩ = \int_{a}^{b} f (x) \overset{―}{g (x)} d x

验证：由积分形式的Cauchy-Schwarz不等式：

| \int_{a}^{b} f (x) \overset{―}{g (x)} d x | \leq \sqrt{\int_{a}^{b} | f (x) |^{2} d x} \sqrt{\int_{a}^{b} | g (x) |^{2} d x} < \infty

注： $L^{2}$ 空间是完备的内积空间，即Hilbert空间。

4.5 加权内积空间

在 $L^{2}$ 空间上可以定义加权内积。设 $w (x) > 0$ 是权函数：

⟨ f, g ⟩_{w} = \int_{a}^{b} f (x) \overset{―}{g (x)} w (x) d x

特例：

勒让德多项式： $w (x) = 1$ ， $[a, b] = [- 1, 1]$
切比雪夫多项式： $w (x) = \frac{1}{\sqrt{1 - x^{2}}}$ ， $[a, b] = [- 1, 1]$
Hermite多项式： $w (x) = e^{- x^{2}}$ ， $[a, b] = (- \infty, \infty)$

4.6 Sobolev空间 $H^{1}$

H^{1} ([a, b]) = {f \in L^{2} ([a, b]) : f^{'} \in L^{2} ([a, b])}

内积：

⟨ f, g ⟩_{H^{1}} = \int_{a}^{b} f (x) \overset{―}{g (x)} d x + \int_{a}^{b} f^{'} (x) \overset{―}{g^{'} (x)} d x

范数：

∥ f ∥_{H^{1}} = \sqrt{\int_{a}^{b} | f (x) |^{2} d x + \int_{a}^{b} | f^{'} (x) |^{2} d x}

五、内积空间的重要性质

5.1 内积的连续性

定理：内积 $⟨ \cdot, \cdot ⟩ : X \times X \to F$ 是连续映射。

证明：若 $x_{n} \to x$ 且 $y_{n} \to y$ ，则：

\begin{aligned} | ⟨ x_{n}, y_{n} ⟩ - ⟨ x, y ⟩ | & = | ⟨ x_{n} - x, y_{n} ⟩ + ⟨ x, y_{n} - y ⟩ | \\ \leq ∥ x_{n} - x ∥ ∥ y_{n} ∥ + ∥ x ∥ ∥ y_{n} - y ∥ \to 0 \end{aligned}

5.2 Pythagoras定理（勾股定理）

若 $⟨ x, y ⟩ = 0$ （即 $x ⊥ y$ ），则：

∥ x + y ∥^{2} = ∥ x ∥^{2} + ∥ y ∥^{2}

证明：

∥ x + y ∥^{2} = ⟨ x + y, x + y ⟩ = ∥ x ∥^{2} + \underset{= 0}{\underset{⏟}{2 Re ⟨ x, y ⟩}} + ∥ y ∥^{2} = ∥ x ∥^{2} + ∥ y ∥^{2}

推广到正交系 ${e_{1}, \dots, e_{n}}$ ：

{‖ \sum_{i = 1}^{n} α_{i} e_{i} ‖}^{2} = \sum_{i = 1}^{n} | α_{i} |^{2} ∥ e_{i} ∥^{2}

5.3 正交分解性质

若 $x ⊥ y$ ，则：

∥ x + y ∥^{2} = ∥ x ∥^{2} + ∥ y ∥^{2}

这是有限维欧几里得空间中勾股定理的无穷维推广。

六、与相关概念的联系

6.1 内积空间 vs 赋范线性空间

内积空间 $\subset$ 赋范线性空间（但逆命题不成立）
Jordan-von Neumann定理：赋范线性空间是内积空间的充要条件是满足平行四边形法则

反例： $L^{p}$ 空间（ $p \neq 2$ ）是Banach空间但不是内积空间。

6.2 内积空间 vs Hilbert空间

内积空间：配备内积的向量空间
Hilbert空间：完备的内积空间

Hilbert空间 = 内积空间 + 完备性

例子：

$R^{n}$ 、 $C^{n}$ 、 $ℓ^{2}$ 、 $L^{2}$ ：Hilbert空间
$C [a, b]$ 配备 $L^{2}$ 内积：内积空间但不完备
多项式空间配备 $L^{2}$ 内积：内积空间但不完备

七、应用领域

7.1 量子力学

量子力学的数学基础就是Hilbert空间：

波函数 $ψ (x) \in L^{2} (R^{3})$
期望值： $⟨ A ⟩ = ⟨ ψ, A ψ ⟩$
态的叠加： $ψ = c_{1} ψ_{1} + c_{2} ψ_{2}$

7.2 信号处理

信号能量： $∥ f ∥^{2} = \int | f (t) |^{2} d t$
信号相关： $⟨ f, g ⟩$ 衡量信号相似性
正交变换：傅里叶变换、小波变换

7.3 机器学习

核方法：通过内积计算在高维特征空间中的相似度
支持向量机：最大间隔分类
核技巧： $K (x, y) = ⟨ ϕ (x), ϕ (y) ⟩$

参考链接

参考文献

Rudin, W. (1991). Functional Analysis (2nd ed.). McGraw-Hill.
Kreyszig, E. (1978). Introductory Functional Analysis with Applications. Wiley.
Lax, P. D. (2002). Functional Analysis. Wiley-Interscience.

AI 结构化补充（2026-05-02）

定义

Inner Product) 内积是在向量空间上定义的标量值运算，用来同时表达长度、角度、正交和投影。有限维线性代数中最重要的入口是 $R^{n}$ 的标准内积：

⟨ v, w ⟩ = v^{T} w = \sum_{i = 1}^{n} v_{i} w_{i} .

这正是点积。因此，点积可以看作 $R^{n}$ 中最常用、最标准的内积。

实内积公理

设 $V$ 是实向量空间。若映射 $⟨ \cdot, \cdot ⟩ : V \times V \to R$ 满足：

⟨ x, x ⟩ \geq 0, ⟨ x, x ⟩ = 0 ⟺ x = 0,

⟨ x, y ⟩ = ⟨ y, x ⟩,

⟨ a x + b y, z ⟩ = a ⟨ x, z ⟩ + b ⟨ y, z ⟩,

则它是 $V$ 上的实内积。正定性保证长度不为负，对称性保证两向量的相互关系不依赖顺序，线性性保证代数展开可用。

复内积约定

在复向量空间中，必须明确共轭放在哪一边。本文采用“第一变元线性、第二变元共轭线性”的约定：

⟨ a x + b y, z ⟩ = a ⟨ x, z ⟩ + b ⟨ y, z ⟩,

⟨ z, a x + b y ⟩ = \overset{―}{a} ⟨ z, x ⟩ + \overset{―}{b} ⟨ z, y ⟩,

⟨ x, y ⟩ = \overset{―}{⟨ y, x ⟩} .

在这个约定下， $C^{n}$ 的标准内积是

⟨ x, y ⟩ = \sum_{i = 1}^{n} x_{i} \overset{―}{y_{i}} = y^{*} x .

也可以采用第二变元线性的相反约定；两种约定都合法，但公式中的共轭位置要随之调整。

诱导长度、距离与角度

内积最直接的作用是诱导范数：

∥ x ∥ = \sqrt{⟨ x, x ⟩} .

于是可以定义距离

d (x, y) = ∥ x - y ∥ .

在实内积空间中，非零向量的夹角由

\cos θ = \frac{⟨ x, y ⟩}{∥ x ∥ ∥ y ∥}

定义。柯西-施瓦茨不等式

| ⟨ x, y ⟩ | \leq ∥ x ∥ ∥ y ∥

保证右端落在 $[- 1, 1]$ ，所以夹角公式是合法的。

在无限列向量空间中，这个不等式还说明点积本身不会跑出有限数。若 $v, w \in ℓ^{2}$ ，则

| v \cdot w | = | \sum_{j = 1}^{\infty} v_{j} \overset{―}{w_{j}} | \leq ∥ v ∥_{ℓ^{2}} ∥ w ∥_{ℓ^{2}} < \infty .

因此平方可和的无限向量仍然可以安全地做内积； $ℓ^{2}$ 的条件正是把“无限点积可能发散”的对象排除出去。

正交与勾股定理

若

⟨ x, y ⟩ = 0,

则称 $x$ 与 $y$ 正交，记作 $x ⊥ y$ 。内积把“垂直”从平面几何推广到任意维向量空间。

若 $x ⊥ y$ ，则

∥ x + y ∥^{2} = ⟨ x + y, x + y ⟩ = ∥ x ∥^{2} + ∥ y ∥^{2} .

同样有

∥ x - y ∥^{2} = ∥ x ∥^{2} + ∥ y ∥^{2},

因为展开 $⟨ x - y, x - y ⟩$ 时交叉项也由 $⟨ x, y ⟩ = 0$ 消去。这就是勾股定理的内积形式。正交分解、最小二乘和傅里叶展开都依赖这个结构。

子空间与正交补

在内积空间中，子空间 $S$ 的正交补定义为

S^{⊥} = {x : ⟨ x, s ⟩ = 0 对任意 s \in S} .

这里的“任意”不能省略：两个子空间 $V, W$ 正交，意思是每个 $v \in V$ 都与每个 $w \in W$ 满足 $⟨ v, w ⟩ = 0$ 。若只知道 $V \cap W = {0}$ ，只能说明它们没有共享的非零向量，不能推出它们正交。

在 $R^{n}$ 的标准内积下， $S$ 与 $S^{⊥}$ 的维数相加为 $n$ ，并且每个向量都可唯一分解为

x = s + z, s \in S, z \in S^{⊥} .

如果两个候选子空间已经彼此正交，但维数和小于环境空间维数，它们只是互相正交的子空间，不是完整的正交补；若维数和超过环境空间维数，则它们不可能彼此正交。

投影公式

若 $v \neq 0$ ，则 $w$ 在 $v$ 方向上的投影是

{proj}_{v} w = \frac{⟨ w, v ⟩}{⟨ v, v ⟩} v

在实标准内积下就是

{proj}_{v} w = \frac{w \cdot v}{v \cdot v} v .

投影误差 $w - {proj}_{v} w$ 与 $v$ 正交。这是向量投影和正规方程的基本机制。

函数内积的积分形式

在函数空间中，向量点积的有限求和被积分替代。实值函数在区间 $I = [a, b]$ 上常用

⟨ f, g ⟩_{I} = \int_{a}^{b} f (x) g (x) d x .

复值函数要加入共轭；按本文第一变元线性的约定，

⟨ f, g ⟩_{I} = \int_{a}^{b} f (x) \overset{―}{g (x)} d x .

若区间中不同位置有不同权重，则可写成

⟨ f, g ⟩_{I, w} = \int_{a}^{b} w (x) f (x) \overset{―}{g (x)} d x, w (x) > 0.

由内积诱导的长度是能量积分：

∥ f ∥_{L^{2} (I)}^{2} = ⟨ f, f ⟩_{I} = \int_{I} | f (x) |^{2} d x .

例如在 $[0, 2 π]$ 上，

\int_{0}^{2 π} \sin x \cos x d x = 0, \int_{0}^{2 π} \sin^{2} x d x = \int_{0}^{2 π} \cos^{2} x d x = π .

所以 $\sin x$ 与 $\cos x$ 正交，但它们不是单位向量；归一化后应除以 $\sqrt{π}$ 。常数函数 $1$ 的长度平方是 $2 π$ ，归一化常数则是 $\sqrt{2 π}$ 。

典型例子

$R^{n}$ ： $⟨ x, y ⟩ = x^{T} y$ ，即标准点积。
$C^{n}$ ： $⟨ x, y ⟩ = y^{*} x$ ，需要共轭。
加权内积：若 $M$ 是实对称正定矩阵，则 $⟨ x, y ⟩_{M} = x^{T} M y$ 。
函数空间：常见形式为 $⟨ f, g ⟩ = \int_{a}^{b} f (t) \overset{―}{g (t)} d t$ 。

不是每个范数都来自内积。能由内积诱导的范数必须满足平行四边形恒等式：

∥ x + y ∥^{2} + ∥ x - y ∥^{2} = 2 ∥ x ∥^{2} + 2 ∥ y ∥^{2} .

因此，内积空间比一般赋范空间多了“角度”和“正交”的几何信息。